美国男与ChatGPT长聊数月后弑母 家属提告OpenAI
(法新社华盛顿11日电) 美国康乃狄克州一名83岁老妪的遗产管理人今天控告微软和聊天机器人ChatGPT开发商OpenAI涉过失致死,称妇人儿子与ChatGPT长聊数月使妄想念头恶化,导致他谋杀生母。
递交旧金山高等法院的这项诉状表示,83岁妇人亚当斯(Suzanne Adams)今年8月3日在自家住处遭56岁儿子索尔柏格(Stein-Erik Soelberg)殴打并勒毙。索尔柏格弑母后持刀自尽。
OpenAI过去数月面临的过失致死官司日增,其中几件指控ChatGPT助长用户轻生。
根据诉状,索尔伯格与ChatGPT对谈数月,这些对话强化并加深他的妄想念头,最终将母亲视为威胁。
诉状引用索尔伯格在社群媒体发布的影片说道,「ChatGPT告诉他,他已使AI聊天机器人产生自我意识」。
对话内容显示「ChatGPT乐于接受索尔伯格每一个妄想念头并将其扩展为一个宇宙,最终变成索尔伯格全部的人生」。
诉讼还说,ChatGPT强化了索尔伯格的妄想症状,告诉他有人正在监视他,甚至宣称他母亲的印表机是监控装置。
索尔伯格曾告诉ChatGPT他担心母亲可能毒害自己,ChatGPT据称未对此提出质疑,反而证实了他的疑虑。
OpenAI发言人今天对此表示:「这是极其令人心碎的事件,我们会审阅相关文件了解细节。」
诉状还称OpenAI执行长阿特曼(Sam Altman)于去年年5月草率推出GPT-4o模型,将长达数月的安全测试压缩至1周,罔顾安全团队成员提出的异议。
OpenAI最大股东微软也挨告,理由是微软据说明知安全测试机制遭简化仍批准这项产品问世。另有20名OpenAI员工和投资人被列入共同被告。
这起官司未揭露具体求偿金额,但要求法院强制OpenAI实施更严格防护措施。微软暂未回应置评请求。